接續昨天內容
生成式對抗網路如何運作?
生成式對抗網路系統包括兩個深度神經網路 — 產生器網路和鑑別器網路。
這兩個網路在對抗性遊戲中訓練模型,其中一個網路嘗試產生新資料,另一個網路嘗試預測輸出是虛假資料還是真實資料。
從技術上講,GAN 的運作方式如下。複雜的數學方程式構成整個運算程序的基礎,以下是其簡單的概述:
產生器神經網絡神經網路分析訓練集並識別資料屬性
鑑別器神經網路分析初始訓練資料並獨立區分屬性
產生器透過向某些屬性新增雜訊 (或隨機變化) 來修改某些資料屬性
產生器將修改的資料傳遞給鑑別器
鑑別器計算產生輸出屬於原始資料集的概率
鑑別器為產生器提供一些指導,以減少下一個週期中雜訊向量隨機化
產生器嘗試最大限度提高鑑別器發生錯誤的概率,而鑑別器嘗試將錯誤的可能性降到最低。
在訓練反覆運算中,產生器和鑑別器會不斷演變並相互對抗,直到它們達到平衡狀態。在平衡狀態下,鑑別器無法再辨識合成資料。培訓的程序到此結束。
(網站生成式AI(Generative AI)的歷史可以追溯到人工智能的早期發展,但其真正的發展是在近年來深度學習技術進步的基礎上實現的。以下是生成式AI歷史的一些重要里程碑:
- 早期生成技術與AI基礎
• 1950-60年代:在這一時期,計算機科學家開始研究如何讓計算機模仿人類的創造力。艾倫·圖靈提出的圖靈測試也為未來的AI研究奠定了理論基礎。
• 1970年代:早期的生成技術包括一些簡單的規則系統和隨機生成方法,比如用來創造詩歌或音樂的算法,但這些方法非常有限。
- 生成模型的引入
• 1980年代:研究人員開始探索如何通過機器學習來生成內容。反向傳播算法(Backpropagation)的發現推動了神經網絡的發展,雖然當時的技術受限,但為日後的突破打下了基礎。
- 深度學習時代的到來
• 2010年代初:隨著計算能力的提高,特別是GPU(圖形處理單元)的進步,深度學習模型得以蓬勃發展。這時期,卷積神經網絡(CNN)和遞歸神經網絡(RNN)得到了廣泛應用,特別是在圖像生成和語言處理領域。
- 生成對抗網絡(GANs)的誕生
• 2014年:伊恩·古德費羅(Ian Goodfellow)和他的同事提出了生成對抗網絡(GANs)的概念,這是一種使用兩個神經網絡相互競爭的模型,一個生成數據,另一個則試圖區分真假數據。GANs在生成圖像和視頻等方面取得了驚人的效果,成為生成式AI的重大突破。
- 自回歸模型與自然語言生成
• 2018年:OpenAI推出了GPT(Generative Pre-trained Transformer)模型,它是一種基於Transformer架構的自回歸模型,專注於自然語言的生成和理解。GPT系列模型的發展,特別是GPT-3,在生成文本的流暢度和上下文理解上達到了前所未有的高度,使得生成式AI在文字創作、對話生成等方面得到了大規模應用。
- 擴散模型與強化學習的應用
• 2020年代:在圖像生成方面,除了GANs,擴散模型(Diffusion Models)等新技術也開始興起。這些模型能夠以更加穩定的方式生成高質量的圖像。此外,生成式AI還融合了強化學習技術,進一步提高了AI生成的質量與效率。
- 跨模態生成
• 2020年代初期:生成式AI開始應用於多模態數據的生成,這意味著AI能夠同時生成文字、圖像、音頻、甚至3D模型。OpenAI的DALL·E和CLIP等模型展示了將語言轉化為圖像的能力,進一步擴大了生成式AI的應用範圍。
- 現今與未來發展
• 如今,生成式AI已經深入應用到各個行業,包括藝術創作、遊戲開發、電影製作、醫療、金融等領域。隨著技術的進一步發展,生成式AI將在更多領域中發揮更大的作用。
在資訊橫行的時代,由大型語言生成的內容,能在短時間統整並學到很多知識,在查證過後,正確率很高,也因此是很好的學習工具,但還是要多方查證,不能只聽信單方解答,學習才能事半功倍喔!
機器學習的基礎
參考網站1:https://aws.amazon.com/tw/what-is/gpt/
參考網站2:https://aws.amazon.com/tw/what-is/gan/